引言:当AI成为生产系统的核心组件,安全已不再是‘可选项’ 2024年,全球超68%的金融与医疗类AI应用已在生产环境部署大模型推理服务(Gartner《AI Governance Report》)。 本文基于啄木鸟软件测试团队在某头部银行智能风控大模型、某三甲医院AI影像辅助诊断系统的32个真实交付项目经验,提炼出可复用、可度量、可审计的AI安全测试落地四步法。 一、明确AI系统安全边界:从‘黑盒API’到‘三层攻击面’建模 很多测试工程师仍习惯将AI服务视为普通微服务——只测输入/输出一致性。 二、构建轻量级AI安全测试工具链:不依赖GPU,也能跑通核心用例 团队常误以为AI安全测试必须自建红队实验室。 结语:安全不是AI的附属品,而是其可信基石 AI安全测试的本质,不是给模型‘找茬’,而是帮业务建立‘可控的信任’。
本文是 vivo AI 计算平台技术演进系列文章之一,着重分享了计算平台的底座 - AI 容器平台(VContainer)的在线业务容器化落地过程中所遇到的问题及解决的思路,vivo AI 计算平台相关的技术实践可参考此前发布的 三、功能模块概览 在线业务容器化落地所涉及到的功能模块分两部分:公司云平台 和 AI 容器平台。云平台是用户入口,AI 容器平台则是容器化部署的基础环境: ? 4、实例无状态化 部署的实例要求是无状态的,如果有对本地存储依赖,则需要改造为访问分布式存储,才能保证资源调度的安全和灵活,也方便后续弹性伸缩的落地。 六、业务落地过程所踩过的坑 在线业务的容器化推进得益于平台和运维同学们的持续投入、专业和严谨,进展比预想顺利,目前依然在稳步推进中。 七、总结展望 由于容器化部署的众多优点,越来越多的公司选择将业务迁移到容器平台之上,vivo AI 容器平台也开始了在线业务容器化落地的实践,相对于离线业务,在线业务对平台的稳定性和资源调度管理有更严格的要求
然而,据啄木鸟软件测试2024年度调研显示:超68%的企业在引入AI测试工具后6个月内未能实现规模化落地,其中41%因‘工具与现有CI/CD流程割裂’而弃用,32%困于‘模型输出不可信、难审计’。 一、落地≠接入:厘清AI测试工具的三个成熟层级 我们提出‘AI测试成熟度三维模型’(ATMM),将落地实践划分为: - L1 工具层接入(Tooling):完成API对接、UI集成,如将Applitools 二、绕不开的三道坎:数据、可信、协同 落地失败常源于对三大隐性成本的低估: 1. 数据债务(Data Debt):多数团队直接用生产日志或历史缺陷报告喂模型,却忽视数据漂移与标签噪声。 我们推动‘AI中间件’实践:以轻量级Event Bus(如NATS)统一接收测试事件(test_start, test_fail, coverage_drop),由AI服务生成结构化Insight(JSON 落地不是终点,而是测试范式进化的起点。 (本文案例均来自啄木鸟软件测试真实交付项目,已脱敏处理)
AI CODING 落地指南,欢迎和大家一起交流、探讨,也欢迎大家贡献更多相关 AI CODING 的优秀实践,相互学习,共同进步。 04、团队 AI 研发流程落地实践 4.1 AI 编程落地痛点问题与分析 4.1.1 痛点问题 站在用户层面讲,一线用户或多或少会经历4个阶段,初次相识、尝试体验、深入使用或弃用、回流使用, 当前仅仅是一个落地探索,而腾讯内部存在不同团队的【需求级】或者【小需求级】实践,这边也可以踊跃征集,毕竟生产场景很复杂,面向不同场景也存在差异,比如 C 端/B 端/G 端,每个场景对交付质量、研发效率 实践中可小步快跑、持续迭代,最重要的是记得及时 git push your code !!! 4AI 编程在团队过程落地会存在很多挑战, 现在仅仅做文档标准化,任重而道远。 06、诚邀共建 如果你在 CodeBuddy 使用或团队落地过程中遇到问题,可随时与我们联系反馈解决,也欢迎、期待和各位同仁共同探讨 AI CODING,分享你的实践 ,碰撞火花,共同成长!
AI遵守什么样的流程规范经典案例:针对于模型训练,公司内已经有很多主流的落地实践经验1) 腾讯会议小助手:功能定位:高效总结会议纪要,回答会议内问题这里我们可以发现,它针对于用户输入问题,能够给出非常简要的回答 }}训练的数据笔者猜测为上面simple的数据格式,如果一般情况下,AI会返回detailed这种格式的信息,但是通过几万条甚至几十万条simple格式的训练信息,便能够约束AI回答的问题格式2) 腾讯广告内容理解实践案例功能定位 助手回答问题:而这类问题依托的知识库,是腾讯云内部留下的大量经典产品介绍文档等,这样用户询问某个云产品信息,便能够给出对应的推荐购买引导总结分析通过分析了以上案例,我们也能总结出RAG+AI的实践要点: 我们现在的AI实践大多停留在简单的小助手上面,但是时代发展是什么样的呢? ,但是一定要会用AI,从提升自己的编码效率,到落地应用给业务赋能等,一定要通过AI提升自己的核心竞争力对于产品人员:提升应用AI的敏锐洞察力,我见过很多AI落地的经验,例如百果园落地AI,实现AI销冠:
+安全落地的关键瓶颈 尽管前景光明,但现实中”安全+AI”的落地仍面临诸多挑战。 AI安全平台如何落地 4.1 分阶段建设路线 AI安全平台的落地不是一蹴而就的,应遵循渐进式、迭代式的方式,分三个阶段推进: 第一阶段:AI赋能安全场景(基础能力建设,6-12个月) 目标:快速验证AI 4.2 典型场景的落地实践 为了具体说明AI安全平台的价值,以下列举几个在实际部署中验证过的典型场景: 场景一:面向集团的安全助手智能体 业务痛点: 安全部门发现漏洞/入侵后,需与业务部门沟通排查、跟进工单 行业标准与规范研究 开展AI网络安全标准制定:参与国家、行业的安全AI标准化工作,如”安全智能体接口规范”、”安全大模型评测体系”。 最佳实践输出:总结实践中的经验教训,发布行业指南。 深信服《AI安全平台建设白皮书》——技术架构、分阶段建设路线、落地内容示例详解。
好事文章地址:深度学习入门指南:一篇文章全解好了,开始今天的主题:最近在网上发现了一款轻量级的AI证件照制作的项目,名为HivisionIDPhotos。 它利用AI模型实现对多种拍照场景的识别、抠图与证件照生成,支持轻量级抠图、多种标准证件照和排版照生成、纯离线或端云推理、美颜等功能。 一、创建实例本次实验选择了DAMODEL(丹摩智算)平台,致力于提供丰富的算力资源与基础设施助力AI应用的开发、训练、部署。 优化版MODNet,更适合纯色背景抠图http://file.s3/damodel-openfile/HivisionIDPhotos/hivision_modnet.onnxrmbg-1.4BRIA AI
下面是孙祥学老师关于AI技术在视频智能识别和分析中的应用,以及实际落地过程中遇到的挑战以及解决办法的分享。 视频背景-孙祥学.jpg 讲师介绍:孙祥学,腾讯云高级工程师,毕业于华中科技大学。 负责腾讯视频云视频分析理解相关项目,先后从事PSTN云通讯及呼叫中心相关开发,目前主要负责视频智能识别和分析相关产品的研发,在视频检索、视频审核、视频分析等相关应用场景中有一定的实践经验。 我今天分享的内容有四块,第一块是视频+AI能产生什么;第二块是想重点介绍智眸这款视频+AI的产品;第三块是智眸的应用场景,第四块是官网的一些可用资源。 视频+AI能产生什么 第一个视频+AI的尝试是极速高清,像斗鱼、虎牙、央视等目前已经接入在使用的一款产品。极速高清是在不降低视频质量情况下降低视频码率,也就是降带宽,降成本。它跟AI的结合点在哪呢? 幻灯片8.PNG 智能媒体生产平台,包括基础服务层、AI引擎层、媒体处理层、基础应用层、基础产品层。
在多轮迭和更新后,形成的最终度量体系如下: NO.4 技术落地过程 度量平台经过几轮的技术重构和定义,最终的业务架构如下: 上面的业务架构图应该比较清晰了,就不过多的说明, 属于程序员们的1024快来临了,为感谢大家对本公众号的支持,可点击下方的图片,参与抽奖,奖品是《敏捷测试高效实践:测试架构师成长记》。开奖时间是10月24日 00:00。
弹性伸缩落地实践1. 什么是 HPA ?HPA(Horizontal Pod Autoscaler)是 Kubernetes 中的一种资源自动伸缩机制,用于根据某些指标动态调整 Pod 的副本数量。 最佳实践说明:原生Deployment对象不支持灰度发布策略,所以改用 Argo-Rollout 资源对象,下面示例均采用 Argo-Rollout 演示4.1 定时弹性4.1.1 后端模版apiVersion
弹性伸缩落地实践 1. 什么是 HPA ? 最佳实践 说明: 原生Deployment对象不支持灰度发布策略,所以改用 Argo-Rollout 资源对象,下面示例均采用 Argo-Rollout 演示 4.1 定时弹性 4.1.1 后端模版 apiVersion
云原生落地1. 上价值从虚拟机到 Kubernetes 转变的收益更高效的利用系统资源:虚拟化本身大概占用10%的宿主机资源消耗,在集群规模足够大的时候,这是一块非常大的资源浪费。 先搞出个试点,最佳实践,然后 点--> 线 --> 面 推广c. 上下齐力:从上到下,从下到上,一同发力d.
最后,津贴总额提供一个cqs查询方法,将写操作转换为一个读操作,保证了实体没有被修改,我自己实践后认为,这样的好处在于,在项目里有一大堆代码的时候,我可以很清楚的知道,只要是有返回值的方法,就一定不会对原来的实例有任何的修改
在 DeepSeek 风靡全球,并持续在行业推理能力榜单中领跑之时,自 2020 年起便专注于企业级 AI 助手领域的果然智汇 AskBot,宣布集成 DeepSeek 满血版模型后,多个应用场景实现升级蜕变 经过百万职场人几年的使用打磨,借大模型升级的契机,AskBot为企业 AI 应用落地打造出全新的 “样板间”。 所有答案自动标注信息来源,并通过交叉验证机制确保信息可靠性,杜绝AI封闭回答的幻觉风险。 合规围栏 针对法务、财务等严肃场景,优先调用经审核的知识条目生成结构化应答。 03—十年磨一剑,连续创业者的初心与坚持 果然智汇AskBot团队多年来深耕企业级AI应用,默默无闻的服务了多家数智先锋企业,如百丽、蒙牛、立邦、美年等知名企业。 团队始终坚持"场景驱动、价值为先"的产品理念,深知让 AI 真正创造业务价值远比制造营销噱头更具挑战性。。
导读:7月28日,腾讯云在北京举办腾讯云开发者社区沙龙,邀请来自腾讯与四川云检科技的五位AI技术专家,分享他们在专业领域的AI开发经验,帮助开发者在具体行业场景中实践AI技术。 因为腾讯强大的社交、游戏等基因,腾讯AI有着非常丰富的实践场景,在朋友圈爆款应用、OCR识别、医疗、游戏等场景中都运用了AI技术,开发出了大量的新功能和能力。 朋友圈爆款背后的计算机视觉技术与应用 在现阶段,强调AI在场景中落地,就是希望AI走进千家万户,融入整个社会,而不仅仅是曲高和寡的模型,这就是AI技术产业化的趋势。 5.png 最后,如何让AI落地到具体场景中,除了技术层面,开发者们如何打磨产品让用户可以简单的使用复杂的技术?通常来说,从有想法到落地是一个非常漫长的过程,它分非常多的环节。 首先要有AI算法的专家,同时要有AI工程实践经验丰富的人,最后,还要有更多的产品开发人员把它打磨成产品。 OCR的应用集锦及背后技术 OCR是近年比较火热的领域。
因为腾讯强大的社交、游戏等基因,腾讯AI有着非常丰富的实践场景,在朋友圈爆款应用、OCR识别、医疗、游戏等场景中都运用了AI技术,开发出了大量的新功能和能力。 因此,7月28日,腾讯云在北京举办云+社区沙龙,邀请来自腾讯与四川云检科技的五位AI技术专家,分享他们在专业领域的AI开发经验,帮助开发者在具体行业场景中实践AI技术。 朋友圈爆款背后的计算机视觉技术与应用 在现阶段,强调AI在场景中落地,就是希望AI走进千家万户,融入整个社会,而不仅仅是曲高和寡的模型,这就是AI技术产业化的趋势。 最后,如何让AI落地到具体场景中,除了技术层面,开发者们如何打磨产品让用户可以简单的使用复杂的技术?通常来说,从有想法到落地是一个非常漫长的过程,它分非常多的环节。 首先要有AI算法的专家,同时要有AI工程实践经验丰富的人,最后,还要有更多的产品开发人员把它打磨成产品。 OCR的应用集锦及背后技术 OCR是近年比较火热的领域。
因为腾讯强大的社交、游戏等基因,腾讯AI有着非常丰富的实践场景,在朋友圈爆款应用、OCR识别、医疗、游戏等场景中都运用了AI技术,开发出了大量的新功能和能力。 image.png 因此,7月28日,腾讯云在北京举办云+社区沙龙,邀请来自腾讯与四川云检科技的五位AI技术专家,分享他们在专业领域的AI开发经验,帮助开发者在具体行业场景中实践AI技术。 image.png 朋友圈爆款背后的计算机视觉技术与应用 在现阶段,强调AI在场景中落地,就是希望AI走进千家万户,融入整个社会,而不仅仅是曲高和寡的模型,这就是AI技术产业化的趋势。 image.png 最后,如何让AI落地到具体场景中,除了技术层面,开发者们如何打磨产品让用户可以简单的使用复杂的技术?通常来说,从有想法到落地是一个非常漫长的过程,它分非常多的环节。 首先要有AI算法的专家,同时要有AI工程实践经验丰富的人,最后,还要有更多的产品开发人员把它打磨成产品。 OCR的应用集锦及背后技术 OCR是近年比较火热的领域。
本周六深圳架构同盟有个AI Agent平台和应用落地实践沙龙,笔者公司最近正在做智能体相关的规划,于是毫不犹豫的报名参加了这个沙龙。 一、智能体平台架构及设计1、智能体平台架构及设计:智能体平台应该作为AI的基建来看待。智能体平台价值:覆盖AI开发框架和流程、可复用的MCP插件模板生态。 利用另一个模型(审查模型)去验证执行模型的输出,是最佳的安全实践。 model.9.Beware pareidolia of consciousness; the model can be used against itself.五、智能客服智能体浅谈1、货拉拉关于智能客服的实践王海华老师分享了货拉拉关于智能客服的实践 Agent模式系统:ARG封装一个toolAgent as toolworkflow as toolApp as tool2)、跨平台之间Agent协同:A2A七、结语本文是根据几位大佬关于Agent落地实践分享重新打散总结了对笔者比较有感触的点
ChatDB 的落地实践—— 基于 Vanna 的企业级实现方案一、为什么要做 ChatDB(而不是再造一个 BI)在企业真实场景中,数据问题往往不是「没有数据」,而是:数据分散:MySQL MongoDB 而 Vanna 正好是目前最适合工程化落地的 NL2SQL 框架之一。 自动换行 AI ---- ### 四、Vanna 的核心落地步骤(重点) #### 1️⃣ 数据库 Schema 注入(第一步最重要) vn.train NL2SQLVannaLLMQwen DeepSeek GPT向量库Chroma / MilvusDBMySQL / ClickHouseAPIFastAPI权限数据中台统一鉴权 八、一句话总结ChatDB 不是让 AI
三、实战案例:快速构建员工考勤系统——从0到1的完整落地正好我们公司最近需要开发一个新的企业员工考勤管理系统,需要我以最短的时间给一个初步的计划方案和页面设计,为更直观地展示CodeWave的使用流程与效果 而在本次实践中,我们选择了网易 CodeWave 智能生成应用,面对“多场景打卡、多角色权限、数据可视化”等复杂需求,仅通过结构化的自然语言描述,CodeWave 即在 2 分钟内 完成了从代码生成到界面呈现的全过程 本次考勤系统的成功落地,不仅展示了从语言到系统的高效转化过程,更说明了开发不再只是技术实现,而是知识、逻辑与创造力的结构化表达。 随着AI技术的不断进步,我们相信这样的智能开发工具将成为未来企业软件开发的主流选择。